#LLM инференс06.10.2025
StreamTensor: потоковая компиляция LLM из PyTorch в FPGA-архитектуры
StreamTensor переводит PyTorch-графы LLM в потоковые FPGA-ускорители с itensor и LP-моделью для размеров FIFO, снижая обращения к DRAM, уменьшая задержки и повышая энергоэффективность.